EnvACE: Internalizing Environment Dynamics via World Rehearsal for Agentic Reinforcement Learning
EnvACE：通过世界排练内化环境动力学用于智能体强化学习
🧭 Agent强化学习 · 世界模型内化 ★ 深度解读
Shanghai Jiao Tong University · Zhejiang University · National University of Singapore · Sun Yat-sen University · Tencent Inc.
让策略自身扮演环境生成响应，内化交互动力学，实现不依赖外部环境的智能体RL训练
📌 工作参考价值（4 点）
- 训练范式迁移：将环境响应生成的角色交给策略自身，省去构建昂贵的外部仿真环境。对于电商工具调用 Agent（查询库存、下单、修改订单）的训练，可直接用历史交互数据让模型同时学习“动作+响应”，大幅降低环境搭建成本。
- 角色明智 GRPO：对 acting 和 rehearsal 两个角色分别计算基线，但共享参数梯度更新。电商 Agent 训练时可将用户模拟、工具返回模拟作为 rehearsal 角色，与真实 action 角色联合优化，让策略更深刻理解交互因果关系。
- 测试时安全排练：在正式执行前，策略内部进行多次“想象推演”，汇总反馈后指导实际动作。适用于高风险场景（如退款、取消订单、修改支付方式），提前预测错误并修正参数，避免真实环境错误操作。
- 数据效率提升：世界排练允许在无外部反馈的条件下持续改进策略，可在离线数据上预训练 Agent，或结合少量真实交互微调，提升 RL 样本效率。